Năm 600, con thứ hai của Văn Đế là Tấn vương Dương Quảng mưu hại Thái tử Dương Dũng, bàn mưu với Dương Tố tính bề hành sự. Lại liên kết với một số tay chân trong Đông cung, vu cáo với Văn Đế rằng Dũng có ý tạo phản. Dương Quảng lệnh cho Đốc Vương Phủ quân Cô Tang quan sát hành động của Dương Dũng, đồng thời đút lót cho thân cận của Dũng là Cơ Uy, Uy bèn dâng thư tố cáo Dương Dũng lên Văn Đế. Tháng 9 năm 600, Dương Tố lại tố cáo Dương Dũng. Văn Đế theo kế của Tố, sai Dương Dũng kiểm tra dư đảng loạn tặc. Dương Tố sai người đến quan sát, rồi bí mật tố cáo Dương Dũng khích bọn họ làm loạn. Tháng 10, Văn Đế truất Dương Dũng cùng các con xuống làm Thứ nhân, lập Dương Quảng làm Thái tử[69]. Lúc đó đất trời bỗng dưng có địa chấn. Phế thái tử Dương Dũng bị đặt dưới sự kiểm soát của Dương Quảng, và Dương Quảng tìm cách cản trở không cho Dương Dũng được gặp cha mẹ. Nhiều quan đại thần bị nghi là phe đảng của Dương Dũng, bao gồm Sử Vạn Tuế và Nguyên Mân, đều bị xử tử[70].

Năm 602, Độc Cô hoàng hậu chết, Tùy Văn Đế cực kỳ đau buồn, nhưng không lâu sau đó lại bắt đầu sủng hạnh hai phu nhân Trần, Thái.

Cũng năm đó, Dương Quảng lo sợ Dương Tú ở Ích châu[71] sẽ gây rắc rối cho mình, bèn sai Dương Tố kiếm bằng chứng nói Dương Tú tham ô và sử dụng các nghi thức giống như hoàng đế. Văn Đế tin lời gian thần, sai triệu hồi Dương Tú về kinh. Khi Tú về tới, Dương Quảng đưa ra những bằng chứng cho thấy Dương Tú ngấm ngầm nguyền rủa Văn Đế và Dương Lương. Văn Đế trong cơn giận dữ, lột bỏ chức tước của Dương Tú và giam giữ tại nhà[70].

Mùa xuân năm 604, Văn Đế dời đến cung Nhân Thọ tránh nóng, bất chấp lời cảnh báo của đạo sĩ Chương Cừu Thái Dực rằng nếu ông đi thì sẽ không bao giờ trở về được[72]. Ở cung Nhân Thọ, ông lâm bệnh, và qua đời vào ngày 23 tháng 8 cùng năm ở một cung điện tên là Đại Bảo, hưởng thọ 64 tuổi[69]. Ông được an táng tại Thái lăng thuộc huyện Dương Lăng cùng với Độc Cô hoàng hậu, dù không nằm chung một huyệt[72].

Tùy Văn Đế chết như thế nào, vẫn là một vấn đề gây tranh cãi của lịch sử. Nhiều sử gia truyền thống cho rằng Văn Đế chính là bị con trai ruột Dương Quảng giết chết. Câu chuyện được sử gia Tư Mã Quang thuật lại trong Tư trị thông giám[72]:

Từ sau Văn Hiến hoàng hậu [(Độc Cô Già La)] băng, Văn Đế đặc biệt sủng hạnh Tuyên Hoa phu nhân Trần thị, Dung hoa phu nhân Thái thị. Trần thị là con gái của Trần Cao Tông. Thái thị, người Đan Dương[73]. Đế đau nặng ở cung Nhân Thọ, nằm liệt giường. Thượng thư Tả bộc xạ Dương Tố, Thượng thư bộ Binh Liễu Thuật (con rể Tùy Văn Đế, chồng của công chúa Dương A Ngũ), Hoàng môn thị lang Nguyên Nham nhập các xem bệnh. Triệu Hoàng thái tử (Dương Quảng) vào ở điện Đại Bảo. Thái tử đang tìm cách ứng phó và phòng vệ sau khi hoàng thượng băng hà, rồi viết thư hỏi Dương Tố để coi phải làm gì đây. Dương Tố viết thư phúc đáp về các biện pháp canh phòng cho thái tử. Có cung nhân biết được, báo với Thượng, Thượng xem xong không hài lòng. Bữa nọ, Trần phu nhân đi nhà xí, gặp Thái tử, bị thái tử bức bách, nhưng thoát được, về bẩm với Thượng. Thượng xem thần sắc của bà ta khác lạ, mới hỏi nguyên do vì sao. Phu nhân rớt nước mắt nói: "Thái tử vô lễ". Thượng giận, đập giường nói: "Súc sanh, sao có thể giao phó đại sự? Độc Cô hại ta rồi". Bèn triệu Liễu Thuật, Nguyên Nham đến bảo: "Triệu con ta". Bọn Thuật chuẩn bị gọi Thái tử, Thượng nói: "Gọi Dũng". Thuận, Nham ra ngoài chuẩn bị viết sắc thư. Dương Tố nghe tin, báo với Thái tử. Giả mạo chiếu lệnh, bắt Thuật, Nham hạ ngục. Lấy binh sĩ đông cung vây chặt điện Nhân Thọ, tiếng là để bảo vệ, cấm không ai cho ra vào. Dùng Vũ Văn Thuật, Quách Diễn tiết độ cấm quân. Sai Hữu thứ tử Trương Hành vào tẩm điện xem bệnh; Hành đem các hậu cung nhốt vô biệt thất, rồi sau đó Thượng băng, trong ngoài có nhiều lời bàn luận. Trần phu nhân cùng các hậu cung nghe có sự biến, chằm chằm vào nhau trong sợ hãi và run rẩy. Vào lúc hoàng hôn, Thái tử sai sứ giả đem đến một cái hộp nhỏ làm bằng vàng, phong ấn kĩ càng, trao cho phu nhân. Phu nhân xem qua, tưởng trong đó là thuốc độc, rất sợ hãi không dám mở ra. Sứ giả thúc giục, đành phải mở. Trong hộp có mấy cái đồng tâm kết (vật tượng trưng tình yêu của người Trung Quốc). Cung nhân cả thảy đều vui vẻ, nói với nhau:"Được khỏi chết". Trần thị xấu hổ mà giận dữ, ngồi xuống và không bái tạ. Các cung nhân bức ép, bất đắc dĩ mới đứng dậy bái sứ giả. Tối đó, thái tử triệu hạnh phu nhân.

Dương Quảng sau đó lên ngôi và trở thành Tùy Dượng Đế. Công việc đầu tiên của Dượng Đế là nạp ngay hai vị Trần, Thái vào hậu cung, sau đó là giết chết anh trưởng Dương Dũng. Những phiên bản chi tiết hơn của câu chuyện nói rằng Trương Hành đích thân giết Tùy Văn Đế bằng cách đấm vào ngực và bẻ nát xương sườn của hoàng đế. Những người ủng hộ chuyện Dương Quảng chủ mưu giết cha còn chưng ra những bằng chứng khác, bao gồm cả việc sau khi Văn Đế chết, Dượng Đế đã nạp cả hai phu nhân Trần, Thái vào cung. Hơn nữa, về sau khi Trương Hành bị Dượng Đế ghét bỏ và xử tử năm 612, đã than vãn trước pháp trường rằng: "Ta làm những điều kia cho hắn, thì mong gì sống lâu được". Người cai ngục, như có nghe về chuyện sự biến cung Nhân Thọ năm xưa, nên đã bịt lỗ tai lại để không nghe được gì và Trương Hành lập tức bị hành quyết. Như vậy có thể thấy Trương Hành rõ ràng là bị diệt khẩu.

Tuy nhiên, một số ít sử gia ngày nay lên tiếng nghi ngờ thông tin này, cho rằng Văn Đế qua đời là do bệnh tật, không liên quan đến Dượng Đế và cho rằng câu chuyện bịa đặt vu khống Dương Quảng là do tác giả Triệu Nghị trong cuốn Đại Nghiệp lược ký viết vào đầu thời nhà Đường dựng lên, các sử gia biên soạn Tùy thư lấy theo đó mà chép vào tác phẩm.[74]. Mà theo Đại nghiệp lược kí thì cung phi trong câu chuyện là Thái Dung Hoa chứ không phải Trần Tuyên Hoa. Họ cũng chỉ ra rằng các chứng cứ kia cũng có thể bác lại được: Vì sao Liễu Thuật, Nguyên Nham không bị giết dù họ biết sự thật. Tuy nhiên, việc Dương Quảng giết cha là Dương Kiên dường như đã trở thành một sự thật trong nhận thức của người Trung Quốc rồi.

Tùy Dượng Đế Dương Quảng sau khi lên ngôi, thi hành chính sách bạo ngược khiến lòng dân bất mãn, các nơi lần lượt khởi nghĩa chống lại chính quyền, cuối cùng dẫn đến sự diệt vong của nhà Tùy 14 năm sau (618)[75][76][77][78][79].